Đương lúc đấy, phe nhóm đối lập đang có mưu đồ chống lại Romanos IV nhân cơ hội này đã quyết định khởi sự. Trước tiên hai nhân vật chủ chốt trong bọn là Caesar Ioannes Doukas và Mikhael Psellos ép buộc Eudokia thoái ẩn tại một tu viện, rồi họ cố sức thuyết phục Mikhael VII tuyên bố phế truất Romanos IV trước bàn dân thiên hạ.[18] Tiếp theo họ một mực từ chối tôn trọng thỏa thuận giữa Arslan và vị hoàng đế cũ.[32] Romanos vừa về tới nơi, nhận được hung tin bèn cùng với gia tộc Doukas tập hợp quân lính đối phó với loạn đảng. Sau một hồi hỗn chiến giữa nhà Dokeia với Constantine và Andronikos Doukas cùng Romanos, rốt cuộc lực lượng dưới quyền Romanos đại bại,[8] buộc ông phải rút quân về pháo đài Tyropoion, rồi kéo đến đóng tại Adana ở Cilicia. Bị binh sĩ của Andronikos truy đuổi ráo riết, lại thấy thời thế đã mất buộc ông phải đầu hàng trước toán quân đồn trú tại Adana chừng nào tính mạng của mình được đảm bảo.[33] Trước khi rời khỏi pháo đài, Romanos còn lo thu thập tất cả số tiền có trong tay và gửi đến chỗ Sultan như là bằng chứng về lòng tin thành thực của mình, cùng với một thông điệp: "Lấy tư cách Hoàng đế, trẫm hứa với ngươi về số tiền chuộc một triệu rưỡi. Bị truất ngôi và sắp sửa ở dưới quyền kẻ khác, trẫm trao cho ngươi tất cả những gì trẫm có như là bằng chứng về lòng biết ơn của trẫm".[34]

Andronikos đặt ra điều kiện sẽ tha mạng nếu cựu hoàng chịu từ bỏ quyền hành và thoái ẩn đi tu. Romanos đồng ý và triều đình chấp nhận thỏa thuận này tại Constantinopolis.[34] Tuy nhiên, Ioannes Doukas đã không giữ lời hứa về thỏa thuận mà còn sai thủ hạ nhẫn tâm chọc mù mắt Romanos vào ngày 29 tháng 6 năm 1072, trước khi đày ông tới miền Prote ở vùng biển Marmara. Thiếu sự hỗ trợ y tế, vết thương của ông bị nhiễm trùng và sớm phải chịu đựng một cái chết đầy đau đớn kéo dài.[8] Thêm một hành vi sỉ vả khác nữa là khi Romanos nhận được một bức thư do Michael Psellos gửi đến tỏ ý chúc mừng về việc mất đi đôi mắt của ông.[35] Do vết thương tái phát ngày càng nặng, mãi sau cựu hoàng mới trút hơi thở cuối cùng, lúc đang cầu Chúa thứ tội, và hoàng hậu Eudokia được phép vinh danh hài cốt của ông bằng một đám tang trọng thể.[34]